Sông Ohio là biên giới phía nam của Ohio (chính xác là ở mực nước sông thấp nhất vào năm 1793 ở bờ bắc của dòng sông) và nhiều đoạn biên giới phía bắc của tiểu bang được xác định theo hồ Erie của Ngũ Đại Hồ. Ohio tiếp giáp với Pennsylvania (Penxinvani) ở phía đông, Michigan ở phía bắc, Indiana ở phía tây, Kentucky ở phía nam, và Tây Virginia (Tây Virginia) ở phía đông nam.

Nhiều vùng Ohio là đồng bằng bị băng xói mòn, trừ một vùng bằng phẳng về phía tây bắc, ngày xưa gọi là Đầm Lầy Tối Tăm (Great Black Swamp). Vùng đất bị băng xói mòn này ở vùng tây bắc và miền trung bị ngăn cách về phía đông và đông nam bởi vùng bị băng xói mòn thuộc Cao Nguyên Allegheny, tiếp theo đó là một vùng gọi là vùng chưa bị băng xói mòn thuộc Cao Nguyên Allegheny. Nhiều phần của Ohio là vùng đất thấp, nhưng vùng không bị băng xói mòn thuộc cao nguyên Allegheny có núi và rừng nhấp nhô.

Những dòng sông quan trọng thuộc tiểu bang này có thể kể là Sông Miami, Sông Scioto, Sông Cuyahoga, và Sông Muskingum.